O tom, co nám řekne Trump, Babiš či Zeman, rozhodnou tvůrci „deep fake“

Napsal/a Robert Břešťan 4. prosince 2018
FacebookXPocketE-mail

Falešné zprávy dostávají postupně nový a dokonalejší rozměr. Od smyšlených informací a konspiračních teorií, přes upravené fotografie až po videa, kde významný politik věrohodně pronáší to, co ve skutečnosti nikdy neřekl. Po fake news přjde fáze „hlubokých lží” – deep fake.

Je jen otázkou času, kdy se upravená či zcela zfalšovaná videa českých politiků či jiných veřejně známých osob začnou šířit sociálními sítěmi a konspiračními weby i v České republice.

Na to, jak je díky novým technologiím stále snadnější manipulovat obsahem, upozornil letos v dubnu mezi prvními americký komik Jordan Peele.

Ten díky počítačovému programu doslova vložil svá ústa do tváře Baracka Obamy a „donutil“ jej tak věrohodně říkat to, co nikdy neřekl. Například se velmi nevybíravě vyjádřit o Donaldu Trumpovi.

Sám Jordan Peele na konci videa konstatuje, že žijeme v komplikovaných časech a obranou je čerpat informace z věrohodných zpravodajských zdrojů.

Téma poté převzala americká média a tak se i širší veřejnost mohla přesvědčit o tom, jak těžké je a bude odlišit realitu a záměrně upravené či speciálně vytvořená videa.

Rychle a zběsile

HlídacíPes.org o nové éře falešných informací mluvil s Thomasem Hansonem, někdejším americkým diplomatem, který nyní působí na Alworthově institutu mezinárodních vztahů Univerzity Minnesota – Duluth a tématu falešných zpráv se věnuje. Působil na diplomatických postech v někdejším Východním Německu, bývalém SSSR, v Norsku či Francii.

Fenomén deep fake se podle něj objevuje v posledních několika letech, ale výrazně zesílil v posledních zhruba 18 měsících. „Souvisí to obecně s rozmachem fake news, v americkém prostředí pak s tím, jak se potvrzuje ruský vliv na prezidentské volby v roce 2016,“ říká Hanson.

Oblast deep fake postupuje kupředu velmi rychle. Jak v oblasti vývoje, tak detekování těchto falešných výtvorů. „Ale obávám se, že jsme v situaci, kdy detekce nestíhá držet krok s rychlostí, jakou nástroje na vytváření deep fake vznikají,“ podotýká Hanson.

Svůj program boje proti těmto falešných informacím, které mají potenciál výrazně ovlivňovat nálady veřejnosti a vyvolávat neklid i zmatek a strach, už mají i některé vlády. V USA se tématem zabývá Defense Advanced Research Projects Agency (DARPA – Agentura ministerstva obrany pro pokročilé výzkumné projekty, která je zodpovědná za vývoj nových obranných technologií.

Na druhé straně existuje systém umělé inteligence GAN (Generative adversarial networks) umí generovat realisticky vypadající falešné fotografie, počítačové lidské tváře, které jsou k nerozeznání od reálných lidí. Tím pádem je může zobrazovat v jakýchkoli situacích a souvislostech.

„Nově lze takto vytvářet i realistická videa. Je extrémně těžké rozeznat, že jde o fake,“ zdůrazňuje Hanson.

„Je to skutečně velké téma. Obzvláště nebezpečné jsou tyto deep fake informace v době krizí a hrozeb, kdy dokážou ovlivnit veřejnou debatu a zcela překroutit realitu,“ dodává.

Zprávy z králičí nory

Důsledky mohou být dalekosáhlé. „Už nyní vidíme, jak se různým konspiračním teoriím a falešným zprávám daří ničit důvěru lidí v tradiční média. S deep fake to může být ještě mnohem horší. Ty dostávají fake news na úplně novou úroveň. Není to žádná hra, ani věc médií, internetu a sociálních sítí, je to už věc národní bezpečnosti,“ říká Hanson, podle nějž jde i o důvěru lidí v politiku jako takovou.

Řešením může být mezinárodní spolupráce, podobně jako už nyní vlády spolupracují v případě kybernetických útoků a kybernetické bezpečnosti.

„Vystopovat původ deep fake bude těžké, je to jako králičí nora, která je stále hlubší a hlubší a plná zatáček. Odhaduji, že to v následujících letech bude velké téma,“ říká Hanson. 

Značný problém ovšem představuje fakt, že falešná či k obrazu svému upravená videa mohou vycházet přímo z vládních zdrojů. A nejde jen o Rusko, které si metody hybridní války dokonale osvojilo.

Počátkem listopadu kupříkladu tisková mluvčí Bílého domu Sarah Sendersová sdílela na sociálních sítích video, kde se reportér CNN Jim Acosta na tiskové konferenci Donalda Trumpa brání tomu, aby mu zaměstnankyně Bílého domu odebrala mikrofon.

Video vypadalo autenticky, ve skutečnosti však bylo upraveno – zrychleno tak, že reakce novináře působila mnohem agresivnější, než jak to bylo ve skutečnosti. Video působí tak, že se novinář proti dámě prudce ohnal. Reálný záznam ukazuje to, jak Acosta pokusu o odnětí mikrofonu uhýbá. Ve videu vydaném mluvčí Sandersovou chybí i slovní reakce: „Omlouvám se, madam.“

Nikoli náhodou video jako první sdílel známý americký zastánce a šiřitel konspiračních teorií Paul Joseph Watson z krajně pravicového webu Infowars.

Video se začalo virálně šířit, během dvou dní získalo sedm milionů zhlédnutí.

Na videu agentury Associated Press způsob, jak bylo video upraveno, rozebírá nezávislý odborník na zpracování videa Abba Shapiro:

Například podle Jonathana Albrighta, ředitele výzkumu Tow Center for Digital Journalism Kolumbijské univerzity platí, že podobně upravená videa představují ještě větší riziko dalšího šíření dezinformací než videa kompletně zfalšovaná.

„Když je součástí upraveného či smyšleného obsahu i zrnko pravdy, roste pravděpodobnost, že lidé budou takové zprávě mnohém spíše věřit. I když je pravda natahována na skřipec, obsah působí reálně,“ citoval Albrighta americký deník Star Tribune.

Na vládní úrovni

Podle bývalého amerického diplomata Thomase Hansona jde „o skutečný jed, který budou šířit jak jednotlivci, tak některé vlády“.

Metodu, jak se fake news a o to více „deep fake“ bránit, naznačil již výše Jordan Peele – sledovat zdroje, z nichž informace vychází, ověřovat, být obezřetný. Problém je však v tom, že nachytat se mohou i jinak důvěryhodná média.

Opatrnost, skepse a nedůvěra k tomu, co čteme a vidíme v sobě ale skrývá další nebezpečí.

„Když se dostanete do situace, že budete pochybovat o všem, co vidíte a slyšíte, důvěra se úplně rozplyne. A my potřebujeme zachovat důvěru v média, v demokracii, v pravdu,“ říká Hanson.

Podle něj je nezvratné, že přichází nová fáze fake news spojená s technologickým vývojem. „Bude třeba to řešit nikoli individuálně, ale globálně, podobně jako se dnes již bojuje proti kybernetickým hrozbám,“ opakuje Hanson.


Partnerem rubriky (Ne)bezpečná síť je ISECO.cz

Kde se to posr***? Chyby Václava Havla
Petr Pithart
Petr Pithart / předseda české vlády 1990–1992
„Od chvíle, kdy Havel přijal kandidaturu na prezidenta, se domácí politice věnoval jen okrajově a udělal v ní řadu chyb nebo opomenutí, o kterých se nevědělo, nechtělo vědět, nemluvilo nebo jen málo.“Petr Pithart
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Tragédie „české cesty“
Petr Pithart
Petr Pithart / předseda české vlády 1990–1992
„Klausova kuponovka byla ,česká cesta‘, bez cizáků, tedy hlavně Germánů, kterým prý Pithartova vláda jde za pár marek na ruku. A kde dnes nacházíme ty, co nás ostouzeli? Na krajní evropské nacionalistické pravici. Klausovi aplaudují sjezdy nahnědlé Alternativy pro Německo...“Petr Pithart
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Havlovi agenti
Jan Urban
Jan Urban / lídr Občanského fóra pro volby 1990
„Na klíčová místa ministrů vnitra a obrany v první Čalfově vládě se v prosinci 1989 dostali agenti vojenské kontrarozvědky Richard Sacher (krycí jméno Filip) a Miroslav Vacek (krycí jméno Srub). Se souhlasem prezidenta Havla, ale za zády Občanského fóra...“Jan Urban
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Havlovi hvězdopravci
Jan Urban
Jan Urban / lídr Občanského fóra pro volby 1990
„Havel prezident byl někdo úplně jiný. Nový Havel měl názor dřív, než kohokoliv vyslechl. Dokonce vydal příkaz: ,Nepouštějte ke mně nikoho se špatnými zprávami.‘ Obklopil se přitakávači a podivnými existencemi, mezi nimiž nechyběli agenti StB nebo hvězdopravci.“Jan Urban
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Nová smlouva s KGB
Jan Urban
Jan Urban / lídr Občanského fóra pro volby 1990
„Koncem února 1990 se na cestě na první státní návštěvu SSSR ministru vnitra Sacherovi v uličce mezi sedadly vysypaly z desek papíry. Když jsem je začal sbírat, najednou jsem měl v ruce připravený text nové tajné dohody s KGB. Hájil se tím, že prezident o tom ví. Havel se odmítl o věci bavit.“Jan Urban
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Soudcokracie
Aleš Rozehnal
Aleš Rozehnal / právník
„Snaha ,zachraňovat státu peníze‘ je buď projevem servility moci soudní k moci výkonné, nebo zřejmě nevědomou známkou jevu, který označujeme jako,soudcokracie‘. Tato tendence je o to nebezpečnější, že soudní moc je státní mocí nejmocnější a nejdůležitější.“Aleš Rozehnal
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Policejně gangsterský stát
Aleš Rozehnal
Aleš Rozehnal / právník
„Četnost případů a úroveň krytí nezákonností ze strany vysokých státních orgánů naznačuje, že se Česko posunulo do úrovně, kterou bychom mohli označit jako policejně gangsterský stát. V něm stát neovládají zločinci, ale je to právě stát, který kontroluje zločineckou infrastrukturu. Ta pak funguje ku prospěchu vyvolených úředních osob a osob pod jejich ochranou.“Aleš Rozehnal
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Rozkradené restituce
Jan Kalvoda
Jan Kalvoda / expolitik a právník
„Lex Schwarzenberg není zdaleka jediným příkladem, kdy český stát za dlouhodobé pomoci tuzemské justice systematicky obíral vlastní občany o jejich majetek. Odpudivou kapitolu polistopadových dějin představují i zemědělské restituce.“Jan Kalvoda
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Republika oligarchů
Ondřej Neumann
Ondřej Neumann / zakladatel HlídacíPes.org
„35 let od listopadu 1989 máme zoligarchizovanou, podinvestovanou ekonomiku, plnou neschopných politiků ve vládě i opozici, kteří nejsou schopni pochopit, jak vypadá ekonomika 21. století. Ti, kteří zde zbohatli, už většinou investují mimo Českou republiku.“Ondřej Neumann
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Privatizace pro vyvolené
Ondřej Neumann
Ondřej Neumann / zakladatel HlídacíPes.org
„Při privatizaci nakonec převážila vize známá z hasičského bálu ve filmu Miloše Formana Hoří, má panenko. Tedy zhasnout, určitý čas počkat a po rozsvícení sálu nechat každému, co si stihl ,zprivatizovat‘. Bohužel, o tom, že se zhasne a nastane ten správný čas, byli informováni jen vyvolení.“Ondřej Neumann
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Zombie českého práva
Tereza Engelová
Tereza Engelová / reportérka HlídacíPes.org
„Lex Schwarzenberg je zombie českého práva. Kauza v sobě spojuje vršící se bezpráví obou totalit minulého století a navazující bezpráví doby polistopadové...“Tereza Engelová
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Dotační feťáci
Robert Břešťan
Robert Břešťan / šéfredaktor HlídacíPes.org
„Peníze od evropských daňových poplatníků byly v mnohém promarněnou příležitostí. Lidé, firmy a vlastně celá tuzemská ekonomika si na ně navíc vytvořili velmi nezdravý návyk. Česko plíživě přešlo z tržní ekonomiky do ekonomiky silně závislé na dotacích.“Robert Břešťan
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Užiteční idioti Kremlu
Vojtěch Berger
Vojtěch Berger / reportér HlídacíPes.org
„Kauza ,radar v Brdech‘ ukázala Rusku, jak v bývalých středoevropských satelitech může znovu získat vliv. Nasvítila společenské rozložení i ,užitečné idioty‘, kteří se Kremlu můžou hodit v pozdější hybridní válce.“Vojtěch Berger
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Kde se to posr***? Stavitelé „mostů“
Vojtěch Berger
Vojtěch Berger / reportér HlídacíPes.org
„Rusko přitahovalo české prezidenty Klause i Zemana. Sen o Česku jako o mostu mezi Východem a Západem se ale zbortil nejpozději s odhalením ruské účasti v kauze Vrbětice.“Vojtěch Berger
Ukázka z nové knihy HlídacíPes.org„České průšvihy 1989–2024“

Publikaci lze získat pouze
jako poděkování za dar
v minimální výši 599 Kč.

Podpořte nezávislou žurnalistiku!
Kniha České průšvihy 1989–2024
Pop-up mobil Mobile (207451)
SMR mobil článek Mobile (207411)
SMR mobil článek 2 Mobile (207416)
SMR mobil článek 2 Mobile (207416-2)
SMR mobil článek 2 Mobile (207416-3)
SMR mobil pouze text Mobile (207431)
Skyscraper 2 Desktop (211796-4)